标签: AI 安全 — 道一AGI

对齐问题的本质如何确保 AI 系统的目标与人类价值观一致？这不是一个纯技术问题。技术对齐 vs 价值对齐技术对齐：让模型准确遵循指令——如 RLHF 原理与实践介绍的方法。价值对齐：让模型理解人类的深层价值观——这涉及哲学、伦理学...